风险感知的Agent工具检索重排序
🧭 Agent 工具检索的风险感知重排序 ★ 深度解读
University of Science and Technology of China · University of Electronic Science and Technology of China · Lanzhou University · Fenz.AI · University of Glasgow
提出轻量双头重排序框架，在保持相关性的同时通过可调风险惩罚和规则过滤降低高风险工具暴露
📌 工作参考价值（4 点）
- 在电商/广告的 Agent 工具调用或 API 选择场景，可以在召回后增加双头重排序：冻结已有 encoder，只训练两个轻量 MLP 头（相关头 + 风险头），用 s = f_rel - λ f_risk 融合，λ 作为推理时旋钮控制安全-效用平衡，头部参数量仅 20 万，推理开销极小。
- 对商品/内容候选做类似风险标注（如合规风险、敏感类目、价格操纵风险），定义 RVR@k / SRR@k 类指标监控 top-k 风险暴露，作为 NDCG/MRR 之外的安全补充指标；该论文的标注方案（三 LLM 投票 + 人工复核）可直接复用。
- 规则过滤器思路可迁移到严格合规场景：重排后叠加硬约束（如最多一个高风险商品、相似度去重），提供可解释的保守操作点，适合需要审计的推荐/搜索候选集。
- ToolGraph 的分数平滑主要提升相关性而非安全，若要在业务中引入 item 关系图（如同店铺、共现、类目）做平滑，应将其定位为相关性增强模块，安全控制需依赖独立的风险头或规则。
基于反事实与偏好引导的 Agent 任务分解及工具检索
🧭 因果推理与偏好建模联合优化 Agent 任务分解 ★ 深度解读
Northeastern University · Honor Device Co., Ltd · Beijing University of Posts and Telecommunications
通过反事实奖励消除虚假相关、偏好建模约束结构质量，缓解 RL 任务分解中的奖励黑客与重复生成
📌 工作参考价值（4 点）
- 奖励设计避免表面相关：工具检索任务中，直接用 Recall/NDCG 作为奖励会导致模型通过重复分解、关键词堆砌等捷径提升指标，可引入「去分解基线」计算反事实增益，切断虚假相关，提升泛化性。
- 分解质量的结构化监督：单纯用检索指标缺乏对分解逻辑连贯性、原子性等结构质量的约束，可训练偏好奖励模型（PRM）评估分解结果，提供稠密的结构化学习信号，抑制冗余生成。
- 多轮交互数据集构造：利用状态机驱动的自动生成框架，可大规模构建带有细粒度标注（对话状态、意图演化、原子任务）的多轮对话数据，用于评估和训练任务分解模型。
- GRPO 训练技巧：采用群组相对策略优化（GRPO）替代 Critic 网络，通过组内标准化估计优势函数，降低内存开销，适合在分解策略优化中快速迭代。